AI023
บทนำสู่การเขียนโปรแกรมด้วยทริตอน (Triton)
การลดมิติ (Reductions), ฟังก์ชันซ็อฟต์แม็กซ์ (Softmax) และเสถียรภาพทางตัวเลข
วัตถุประสงค์การเรียนรู้
- ดำเนินการและตีความการทำงานของฟังก์ชันการลดมิติในเทนเซอร์หลายมิติ
- สร้างฟังก์ชันซ็อฟต์แม็กซ์เพื่อแปลงค่าโลจิตให้เป็นการแจกแจงความน่าจะเป็น
- ตรวจสอบปัญหาเสถียรภาพทางตัวเลขที่พบบ่อย เช่น การล้นจำนวนทศนิยม (floating-point overflow) และการขาดจำนวน (underflow)
- นำฟังก์ชันซ็อฟต์แม็กซ์ที่มีเสถียรภาพทางตัวเลขมาใช้งาน โดยใช้การเลื่อนค่าคงที่และการเทคนิคลอการิธึมผลรวมเอ็กซ์โพเนนเชียล (Log-Sum-Exp)